Баща едва не се хвана на телефонна измама с изкуствен интелект. Сега той говори открито, за да помогне на други

Г-н Шилдхорн направи, както беше казано, но кратък разговор с предполагаемия обществен защитник, който му нареди да изпрати парите през биткойн павилион, накара притеснения баща да се почувства неспокоен за ситуацията . След последващ разговор с Брет г-н Шилдхорн осъзна, че едва не е станал жертва на това, което Федералната търговска комисия нарече „спешна семейна измама“.

„Обаждане по FaceTime от сина ми, той сочи носа му и казва: „Носът ми е добре, добре съм, измамят ви“, каза г-н Шилдхорн, практикуващ корпоративен адвокат във Филаделфия, пред Конгреса по време на изслушване по-рано този месец. „Седях там в колата си, бях физически засегнат от това. Беше шок, гняв и облекчение.“

Сложната схема включва измамници, използващи изкуствен интелект, за да клонират гласа на човек, който след това се използва, за да подмамят близките да изпратят пари за покриване на предполагаем спешен случай. Когато се свързал с местния си правоприлагащ отдел, г-н Шилдхорн бил пренасочен към ФБР, което след това му казало, че агенцията е наясно с типа измама, но не може да се намеси, освен ако парите не са изпратени в чужбина.

FTC за първи път алармира през март; Не вярвайте на гласа. Агенцията предупреди потребителите, че отдавна са отминали дните на лесно разпознаваемите непохватни измами и че сложните технологии донесоха нов набор от предизвикателства, с които служителите все още се опитват да се справят.

Всичко, което е необходимо, за да възпроизведе човешкият глас е кратък звук на този човек, който говори - в някои случаи лесно достъпен чрез съдържание, публикувано в социалните медии. Гласът се имитира с програма за клониране на глас с изкуствен интелект, за да звучи точно като оригиналния клип.

Някои програми изискват само трисекунден аудио клип, за да генерират каквото възнамерява измамникът със специфична емоция или стил на говорене, според . Налице е също така заплахата, че ошашавени членове на семейството, които отговарят на телефона и задават въпроси, за да потвърдят историята на измамника, също могат да бъдат записани, като по този начин неволно се предоставят повече боеприпаси за измамниците.

„Измамниците ви молят да платите или да изпратите пари начини, които затрудняват връщането на парите ви“, се посочва в съобщението на FTC. „Ако обаждащият се каже да преведе пари, да изпрати криптовалута или да купи карти за подарък и да му даде номерата на картата и ПИН кодовете, това може да са признаци на измама.“

Нарастването на измамите с клониране на глас с изкуствен интелект наложи законодателите да проучат места за регулиране на използването на нови технологии. По време на изслушване в Сената през юни майката Дженифър ДеСтефано от Пенсилвания сподели собствения си опит с измамите с клониране на глас и как това я разтърси.

На изслушването през юни г-жа Стефано разказа, че е чула кой според нея е нейният 15-годишен годишна дъщеря, която плаче и ридае по телефона, преди мъж да й каже, че ще „напълни стомаха [на тийнейджъра] с наркотици и ще я изпрати в Мексико“, ако майката се обади в полицията. Обаждане до дъщеря й потвърди, че тя е в безопасност.

„Никога няма да мога да прогоня този глас и отчаяния вик за помощ от ума си“, каза тогава г-жа Де Стефано. „Няма ограничение за злото, което AI може да донесе. Ако бъде оставена без контрол и регулиране, тя ще пренапише концепцията за това кое е реално и кое не е.”

За съжаление, съществуващото законодателство не защитава жертвите на този вид измама.

Експертът по IP Майкъл Тейч написа в августовска колона за IPWatchdog, че законите, предназначени да защитават поверителността, може да се прилагат в някои случаи на измами с клониране на глас, но те са приложими само от лицето, чийто глас е бил използван, а не от жертвата на измамата.

Междувременно съществуващите закони за авторското право не признават собствеността върху гласа на човек.

„Това ме разочарова, защото бях замесен в случаи на измами на потребители и почти се хванах на това ”, каза г-н Шилдхорн пред Конгреса. „Единственото нещо, което мислех, че мога да направя, е да предупредя хората... Получих обаждания от хора от цялата страна, които... са загубили пари и бяха съсипани. Бяха емоционално и физически наранени, почти се обадиха, за да получат прегръдка по телефона.“

FTC все още не е поставила никакви изисквания към компаниите, разработващи програмите за клониране на глас, но според г-н Teich, те биха могли потенциално ще бъдат изправени пред правни последици, ако не успеят да осигурят предпазни мерки занапред.

За да се справи с нарастващия брой измами с клониране на глас, FTC обяви открит призив за действие. Участниците са помолени да разработят решения, които защитават потребителите от вредите от клонирането на глас, а победителите ще получат награда от $25 000.

Агенцията моли жертвите на измами с клониране на глас да докладват за тях на уебсайта й.

Последвайте ни в